Tên gọi "công xa" xuất hiện từ thời nhà Chu, vừa chỉ xe của Thiên tử, vừa chỉ xe của quan viên.[1][2]

Đến thời nhà Hán, nhà nước dùng xe ngựa để tiếp nhận ý kiến của sĩ dân gửi cho Hoàng đế. Hoàng đế và Tam công muốn mộ binh, phong quan cho thường dân (người không có quan chức) cũng sẽ cho xe ngựa đến cửa nhà để mời. Từ đó hình thành lên một cơ quan chuyên trách gọi là Công xa.[3][4][5]

Người đứng đầu Công xa là Công xa Tư mã (公車司馬), có thời điểm là Công xa lệnh (公車令), Công xa Tư mã lệnh (公車司馬令), trật 600 thạch, trực thuộc Vệ úy.[6] Trụ sở của Công xa lệnh đặt ở cửa Tư Mã ở vòng thành ngoài, thuộc quan có 1 Thừa, 1 Úy.[7][8]